Pioli sinh ra ở Parma nên trong những năm đầu sự nghiệp cầu thủ ông chơi cho đội bóng Parma từ năm 1982-1984. Sau đó ông chuyển sang Juventus (1984-1987), ở đây ông giành được 1 chức vô địch cúp C1. Tuy nhiên câu lạc bộ mà Pioli gắn bó lâu nhất lại là Fiorentina (1989-1995). Pioli giải nghệ năm 1999 sau 1 mùa giải chơi cho Colorno.

Trong sự nghiệp cầu thủ Pioli đá ở vị trí hậu vệ. Ông từng được gọi lên đội U21 Italia nhưng chưa từng được gọi lên đội tuyển quốc gia Italia.